В 1991 году Питер привлек к проекту еще четверых музыкантов - вокалиста Массе Броберга (Masse Broberg), гитариста Йонаса Остерберга (Jonas Оsterberg), басиста Микаэля Хедлунда (Mikael Hedlund) и барабанщика Ларса Соке (Lars Szоke), которого знал уже много лет. Себе Тагтгрен отвел роль второго гитариста. Первая попытка заявить о себе - альбом «Penetralia» (1992), который был записан в домашней студии Питера, - оказалась не очень сильной. Музыка несла явный отпечаток творчества Morbid Angel, Entombed и Deicide - Тагтгрен еще не нашел свой собственный стиль, и придерживался стандартов того времени - скрежечущие гитары, рычащий вокал и громкие ударные. Внимание на группу обратили после второго релиза - «Osculum Obscenum» (1993), который знатоки оценили как грамотный баланс между старой школой death metal и энергетикой black metal.

В 1994 году состав группы сократился - в ней остались Микаэль Хедлунд, Ларс Соке и сам Питер. Именно это трио на протяжении следующих лет ассоциировалось с Hypocrisy. На первом выпущенном в таком составе диске - «Inferior Devoties» (1994) - все вокальные партии исполял Питер, а звучание, несмотря на сокращение численности, стало ещё жёстче и увереннее. В таком составе Hypocrisy совершили тур по соседним странам в компании с коллегами по лейблу - Brutality. Метал-сообщество встречало их с воодушевлением, а журналисты окрестили их «мастерами музыкальной бойни».

В том же году увидел свет третий полноформатный альбом группы - «Fourth Dimension», в котором Тагтгрен продемонстрировал весь свой немалый вокальный диапазон, а также ставшие позже характерными для Hypocrisy применение клавишных, мрачные, выразительные мелодии и треки в медленном темпе. Эмоциональность и гипнотизирующая атмосфера, а также отличная гитарная техника стали фирменными чертами их музыки.

Следующий релиз - альбом «Abducted» в 1996 году - был ярким сплавом различных субстилей металла, не поддающимся какой-то внятной классификации. В качестве сюжетов для песен Тагтгрен использовал давно интересовавшие его темы - инопланетные формы жизни, ритуальная магия. Первым шагом в этом направлении была композиция «Roswell 47», посвященная событиям в Розуэлле, где якобы в 1947 г. разбилась летающая тарелка. Кроме того, на альбоме присутствуют две акустические композиции и одна ambient-зарисовка, которые были написаны Питером в 1994 году для одного из сайд-проектов, но применения не нашли, а спустя два года его одногруппники сами предложили использовать этот музыкальный материал для «Abducted».

Название пятого альбома - «Final Chapter» («Последняя глава»), наводило на мысли о том, что релиз может оказаться точкой в творчестве Hypocrisy. Изданный в 1997 году, он получил намного большую популярность, чем предыдущие релизы. Группа получила более широкую известность в мире металла, но именно в этот момент Тагтгрен решил «заморозить» проект - помимо Hypocrisy, он был занят сольным индустриальным проектом Pain, а также продолжал выполнять обязанности продюсера в звукозаписывающей студии Abyss Studios. Времени катастрофически не хватало, и после активных гастролей летом 1997 он дал Хедланду и Соке бессрочный отпуск, а сам продолжил работу в Abyss Studios, отобрав несколько групп (Dimmu Borgir, Immortal и Dark Funeral).

В январе 1999 был выпущен концертный альбом «Hypocrisy Destroys Wacken 1998», который дал надежду на возвращение коллектива. Окончательное решение о возвращении было принято после выступления на Milwaukee Metal Fest, где их ожидал такой приём, какого они не встречали ещё нигде и никогда.

Изданный в конце 1999 шестой альбом «Hypocrisy» вызвал восторженные отзывы у критиков, которые наградили этот лонг-плей комментарием «100% натуральный метал».
В следующем году увидел свет диск «Into the Abyss», почти весь материал которого был запиан в одном творческом порыве - за несколько недель, и по звучанию был ближе к той разновидности death metal, с которой группа начинала своё творчество.
Спустя несколько месяцев группа предложила своим фанам отобрать треки для бокс-сета «Ten Years of Chaos and Confusion». Он вышел в 2001 году, все выбранные песни были перезаписаны в более тяжёлых аранжировках.

В 2002 году группа представила дерзко экспериментальный альбом «Catch 22», саунд которого является сгустком агрессивной, яростной, живой энергии. Успех альбома был закреплён двумя продолжительными американскими турне, где группа каждый вечер собирала полные залы.

Следующий релиз - «The Arrival» (2004) - был наполнен новыми находками и отличными вокальными пассажами. Это был последний альбом, в записи которого учавствовал Ларс Соке. На время предстоящих гастролей его место за ударной установкой согласился занять Рейдар Хоргхаген (Reidar Horghagen), он же просто Хорг (Horgh), бывший барабанщик Immortal и Grimfist, музыкант, которым Питер давно восхищался.

В 2005 году группа сотрясла мир метала альбомом «Virus», мощность звучания и динамизм песен на котором поразили даже видавших виды фанов.